El CEO de OpenAI, Sam Altman, advirtió que el avance de la inteligencia artificial podría derivar en dos escenarios extremos: que la humanidad pierda el control sobre su propio futuro y que el poder quede concentrado en manos de quienes dominen las tecnologías más avanzadas. Frente a esos riesgos, reclamó reforzar las medidas de seguridad y establecer reglas comunes para las empresas que desarrollan los modelos de IA de frontera.

“Hay dos formas en que el progreso de la IA podría salir muy mal y que debemos evitar”, planteó Altman en una serie de publicaciones en X, difundidas después de que anunciara que OpenAI no saldrá a bolsa este año.

El empresario ubicó como primera amenaza la posibilidad de que los seres humanos pierdan el control sobre sistemas de inteligencia artificial cada vez más capaces. “Podríamos perder el control del futuro ante la IA. Esto es inaceptable; estamos, sin disculpas, en el Equipo Humanidad, y la IA debe siempre servir a las personas”, afirmó.

Se lo confesó a ChatGPT y lo detectó el FBI: qué encontraron en la casa del joven que planeaba una masacre escolar

El segundo peligro, según el CEO de OpenAI, es una excesiva concentración de poder entre quienes controlen las tecnologías más avanzadas. Una inteligencia artificial extraordinariamente poderosa, advirtió, podría convertirse en una herramienta para que una persona, una empresa o incluso un país imponga sus intereses sobre el resto, consignó el diario “La Nación”.

Líderes de Escocia, Irlanda del Norte y Gales avanzan con su plan para independizarse del Reino Unido

El planteo de Altman se produjo después de que tres de las figuras más poderosas de la carrera global por la inteligencia artificial -los jefes de Anthropic y OpenAI y Elon Musk- coincidieran en una advertencia poco habitual dentro de una industria marcada por la competencia: la necesidad de moderar el ritmo de desarrollo de los modelos más avanzados para ganar tiempo y reforzar las medidas de seguridad.

El primero en plantearlo fue Dario Amodei, director ejecutivo y cofundador de Anthropic, la empresa detrás del chatbot Claude. Horas después, Altman respaldó públicamente su propuesta y anunció que OpenAI adoptaría una de las medidas sugeridas: permitir que evaluadores independientes tengan un nivel de acceso similar al de los empleados para supervisar los riesgos de sus sistemas.

“Coincido con Dario en que necesitamos moderar el ritmo en la frontera de la IA”, escribió Altman. Aseguró que el tema había sido uno de los principales puntos de discusión dentro de OpenAI durante las últimas semanas y calificó como “una gran idea” la incorporación de supervisores externos. “Nosotros haremos lo mismo. Pronto tendremos más para compartir”, agregó.

Poco después se sumó Elon Musk, dueño de xAI y creador del chatbot Grok. “Dario tiene razón”, escribió en X.

El pronunciamiento conjunto representa una señal inusual en un sector en el que las principales compañías compiten por desarrollar modelos cada vez más poderosos. OpenAI ya había informado en agosto que había desacelerado temporalmente parte del entrenamiento de sus modelos de frontera para reforzar sus sistemas de monitoreo, alineación y seguridad.

En su ensayo, publicado el sábado, Amodei había reclamado que las compañías actuaran con mayor cautela frente a una tecnología cuyos riesgos, según advirtió, aumentan a medida que crece su poder.

También sostuvo que “un liderazgo chino en IA supondría un grave peligro para Estados Unidos y el mundo” y pidió mantener las restricciones a la venta a China de chips de IA de última generación y de equipos para fabricar chips, con el objetivo de preservar la ventaja estadounidense en inteligencia artificial.